DSAQuant: Denoising-Stage-Aligned Quantization-Aware Training for Video Generation
DSAQuant:面向视频生成的对齐去噪阶段的量化感知训练
🧭 视频生成扩散模型量化训练
Robbyant · ZJU · PolyU · HKUST
提出按去噪阶段对齐的量化训练框架,在 W3A3 下 VBench 平均最高提升 6.60
📌 工作参考价值(4 点)
- 若业务部署视频生成模型(如电商广告素材自动生成),可借鉴分阶段量化:在扩散去噪的早期保留全精度教师监督,后期切换到量化目标,能显著降低低比特细节损失。
- 推理时在最后若干步禁用 CFG 是低成本 trick:可减少量化误差放大、避免高频伪影,对图像/视频生成模型均有参考意义。
- 量化训练不要统一处理所有 timestep;按去噪阶段角色分配监督信号,是比单纯减小量化误差更有效的架构选择。
- 实验显示 W3A3 下 VBench 提升 6.60,激进压缩可行且无推理额外开销,适合边缘侧部署。